Ten błąd ws. sztucznej inteligencji jest powszechny. "Świadomość jest zerowa"

• Wdrażanie AI dla samego wdrażania nie ma sensu – alarmowali eksperci podczas CYBERSEC EXPO & FORUM. Choć firmy masowo sięgają po sztuczną inteligencję, tylko 27 proc. z nich posiada formalną politykę jej wykorzystania.
• AI Act zmusi firmy do zajrzenia pod własną maskę. – Pierwszym krokiem musi być inwentaryzacja procesów i systemów wykorzystujących sztuczną inteligencję – podkreślała podczas dyskusji Gabriela Bar, wskazując, że wiele organizacji nie wie, gdzie faktycznie korzysta z AI.
• Eksperci ostrzegali, że rosnące zagrożenia związane z deepfake’ami, phishingiem i wyciekami danych mogą okazać się większym problemem niż sama implementacja sztucznej inteligencji.
• Firmy często szukają zastosowania dla AI, zamiast rozwiązywać problemy biznesowe. – Najpierw trzeba wiedzieć, do czego sztuczna inteligencja jest potrzebna – wskazywał prof. Dariusz Szostek, apelując o bardziej pragmatyczne podejście do wdrożeń.

– Od dwóch, trzech lat obserwuję proces wciskania AI organizacjom, które wcale go nie potrzebują. Najpierw trzeba wiedzieć, do czego sztuczna inteligencja jest potrzebna, a dopiero później zastanawiać się nad jej stosowaniem. Jej wdrażanie dla samego wdrażania nie ma sensu – mówił podczas CYBERSEC EXPO & FORUM 2026 prof. Dariusz Szostek, sędzia Trybunału Konstytucyjnego, dyrektor Centrum Cyber Science na Uniwersytecie Śląskim.

Firmy bez spisanych polityk

To zdanie dobrze oddawało charakter całej dyskusji w trakcie debaty „AI w praktyce 2026 – rok implementacji”. Jej uczestnicy skupili się na czterech konkretnych obszarach: zgodności z AI Act, cyberbezpieczeństwie, opłacalności wdrożeń oraz granicach stosowania sztucznej inteligencji.

Punktem wyjścia były dane z raportu „Cyberportret polskiego biznesu 2026”. Wynika z niego, że jedynie 27 proc. ekspertów z zakresu cyber deklaruje, że ich firma posiada spisaną politykę AI, a 35 proc. pracowników korzystających z takich narzędzi byłoby gotowych obejść ograniczenia wprowadzone przez pracodawcę.

AI Act. Regulacja, która ma uporządkować rynek

W trakcie dyskusji wiele miejsca poświęcono AI Act, czyli pierwszemu na świecie kompleksowemu rozporządzeniu regulującemu wykorzystanie sztucznej inteligencji. Akt wprowadza podejście oparte na ryzyku – od systemów zakazanych, przez rozwiązania wysokiego ryzyka, po narzędzia objęte jedynie obowiązkami transparentności. Jego celem jest ochrona praw obywateli przy jednoczesnym umożliwieniu rozwoju innowacji.

Choć AI Act obowiązuje w Unii Europejskiej od sierpnia 2024 r., większość przepisów zacznie być stosowana od 2 sierpnia 2026 r. Część regulacji – dotyczących m.in. zakazanych praktyk czy obowiązków związanych z edukacją w zakresie AI – obowiązuje już dziś. Polska nadal pracuje nad krajowymi rozwiązaniami wdrożeniowymi i systemem nadzoru nad rynkiem AI. Rząd przyjął projekt ustawy o systemach sztucznej inteligencji, która ma stworzyć krajowe ramy egzekwowania nowych przepisów.

Zdaniem uczestników debaty wiele firm nadal nie rozumie, że wdrożenie AI Act powinno zacząć się nie od tworzenia dokumentów, lecz od poznania własnej organizacji.

– Jeżeli szef pyta, w jakich obszarach stosujemy AI, to jest bardzo świadomy szef. Pierwszym krokiem musi być inwentaryzacja procesów i systemów wykorzystujących sztuczną inteligencję. Dopiero później można identyfikować ryzyka i obowiązki wynikające z AI Act – mówiła Gabriela Bar, radczyni prawna, założycielka kancelarii Gabriela Bar Law&AI.

Jak podkreślała, wiele firm utożsamia AI wyłącznie z ChatGPT czy Copilotem.

– Klienci przychodzą i mówią: potrzebujemy polityki AI. Kiedy pytam, jakie systemy wykorzystują, okazuje się często, że mają na myśli wyłącznie generatywną sztuczną inteligencję. Tymczasem AI to także systemy wykorzystywane w rekrutacji, edukacji czy ocenie ryzyka – tłumaczyła.

Jeszcze ostrzej problem diagnozował prof. Szostek.

– Jeżeli szef pyta, gdzie jest AI, to ja pytam: gdzie ten szef był, kiedy wydawano pieniądze na AI? To nie jest technologia, która pojawiła się wczoraj. Albo ktoś ją kupił, albo pracownicy korzystają z niej poza wiedzą organizacji – stwierdził.

Zanim AI, trzeba uporządkować cyberbezpieczeństwo

Choć panel poświęcony był sztucznej inteligencji, bardzo szybko okazało się, że dla wielu organizacji i firm większym wyzwaniem pozostaje cyberbezpieczeństwo.

– Najpierw cyberbezpieczeństwo firmy, potem AI. Mamy Himalaje problemów związanych z bezpieczeństwem zwykłych algorytmów, łańcuchów dostaw i systemów informatycznych, a dopiero później dochodzi sztuczna inteligencja – przekonywał prof. Szostek.

Jego zdaniem organizacje zbyt często koncentrują się na nowych technologiach, nie rozwiązując podstawowych problemów związanych z ochroną danych.

Jeżeli dane trafiają do darmowych narzędzi dostarczanych przez podmioty spoza Europy, to pojawiają się pytania znacznie poważniejsze niż sama zgodność z AI Act – ostrzegał.

Marcin Kowalski, lider zespołu badawczego sztucznej inteligencji w Instytucie Optoelektroniki Wojskowej Akademii Technicznej, zwracał uwagę, że sztuczna inteligencja radykalnie zmienia charakter cyberzagrożeń.

– Mamy coraz lepsze deepfake’i, coraz bardziej spersonalizowane ataki phishingowe i coraz skuteczniejsze próby wyłudzeń. Za chwilę nie będziemy w stanie odróżnić prawdziwych treści od wygenerowanych – mówił.

Jeszcze bardziej niepokojące są obserwacje dotyczące świadomości użytkowników.

– Świadomość jest zerowa. Studenci nie wiedzą, kto kontroluje te systemy, gdzie trafiają ich dane i jak działają modele, z których korzystają każdego dnia – mówiła Monika Karwacka, adiunkt i kierownik zespołu Humanistyki Cyfrowej na Uniwersytecie Śląskim w Katowicach.

Wtórowała jej Joanna Karczewska, audytor sztucznej inteligencji i ekspert ds. cyberbezpieczeństwa i ochrony danych osobowych.

– To, jakie dane użytkownicy wrzucają dziś do sztucznej inteligencji, jest przerażające. Bardzo często nie mają świadomości, co dzieje się z nimi później – podkreślała.

Najpierw problem biznesowy, potem technologia

Dyskusja o opłacalności wdrożeń pokazała, że wiele organizacji wciąż szuka zastosowania dla AI zamiast rozwiązywać konkretne problemy.

– Firmy bardzo często chcą korzystać ze sztucznej inteligencji, ale nie wiedzą do czego. Najpierw trzeba zdiagnozować procesy, koszty i problemy organizacji, a dopiero później szukać narzędzia – mówiła Monika Karwacka.

Gabriela Bar zwracała natomiast uwagę, że przedsiębiorstwa często zaczynają od najbardziej skomplikowanych wdrożeń.

– Wszyscy chcą budować chatboty dla klientów, a tymczasem dużo bezpieczniejszym obszarem jest dokumentacja, obieg korespondencji czy zarządzanie procedurami wewnętrznymi – przekonywała.

Nie oznacza to jednak, że sztuczna inteligencja nie przynosi już wymiernych korzyści. Marcin Kowalski przywoływał przykłady działających rozwiązań.

– W bankowości świetnie sprawdza się klasyfikacja korespondencji. W medycynie AI może wspierać lekarzy przy analizie badań diagnostycznych i przygotowywaniu opisów. To są wdrożenia, które już dziś przynoszą realne efekty – mówił.

W ocenie prof. Dariusza Szostka właśnie takie podejście powinno dominować.

– Najpierw trzeba wiedzieć, do czego sztuczna inteligencja jest potrzebna, później wybrać model, przeanalizować cyberbezpieczeństwo i dopiero wtedy myśleć o wdrożeniu – podsumował.

Są obszary, w których AI nie powinna decydować

Największą zgodność panelistów wywołało pytanie o granice wykorzystania sztucznej inteligencji.

– W Europie najważniejszą wartością są prawa człowieka. Dlatego niektóre zastosowania AI zostały po prostu zakazane – przypominał prof. Szostek.

Marcin Kowalski wskazywał przede wszystkim na autonomiczne systemy uzbrojenia i rozwiązania służące do oceniania obywateli.

– Scoring społeczny czy systemy podejmujące decyzje bez nadzoru człowieka to obszary, w których AI nie powinna działać samodzielnie – mówił.

Monika Karwacka zwracała uwagę na psychologię i ochronę zdrowia.

– Nie wyobrażam sobie oddania sztucznej inteligencji decyzji dotyczących zdrowia człowieka czy wsparcia psychologicznego bez udziału człowieka – podkreślała.

Z kolei Gabriela Bar wskazywała na systemy wykorzystujące manipulację oraz tworzenie fałszywych treści.

– Jeżeli mamy techniki manipulacyjne wykorzystujące słabości człowieka, to takie systemy po prostu powinny być zakazane – podsumowała.

Zobacz zapis wideo całej debaty „AI w praktyce 2026 – rok implementacji”: